Navigating Potholes with Geometry-Aware Sharpness Minimization
利用几何感知锐度最小化规避损失坑洼
🧭 优化训练 · 二阶预条件与 SAM 协同
Mila, Université de Montréal · Samsung – SAIL Montreal
LLQR+SAM 用慢更新的二阶预条件器增强 SAM 扰动，放大局部锐利方向的逃逸信号
📌 工作参考价值（4 点）
- 推荐模型泛化提升：用慢更新预条件器捕获损失景观的低频几何，结合快速 SAM 扰动可有效跳出局部尖锐极值点，适合 CTR/CVR 模型在大规模稀疏数据上避免过拟合。
- 大模型微调中的曲率修正：LLQR 的逐层线性二次型调节器预条件器可在 LoRA 等适配器微调中，以稀疏 EMA 方式注入，在不显著增加开销下改善平坦性，提升 OOD 泛化。
- 多任务学习与 Agent 策略优化：在 RL 或 Multi-Agent 训练中，不同任务梯度方向冲突常形成损失坑洼，采用二时标结构（慢几何学习 + 快曲率探测）可稳定训练，避免单个任务主导的尖锐解。
- 工程实现 trick：预条件器每数千步更新一次并维持 EMA，计算开销极小，适用于需长期训练的电商搜索、序列推荐模型，可与现有 SAM 变体（如 FSAM）直接插拔。